亚马逊云科技:Amazon EC2 P5e 实例正式可用
9月18日消息,亚马亚马逊云科技宣布由英伟达H200 GPU提供支持的科技可用 Amazon Elastic Compute Cloud P5e(Amazon EC2 P5e)实例现已正式可用。
据了解,实例吕梁市某某软件科技有限公司亚马逊云科技是正式首个将英伟达H200 GPU用于生产环境的领先云提供商。与基于英伟达H100 GPU的亚马Amazon EC2 P5实例相比,Amazon EC2 P5e实例GPU内存容量提升1.7倍,科技可用GPU内存宽带提升1.5倍。实例Amazon EC2 P5e非常适用于复杂的正式大型语言模型(LLM)和多模态基础模型(FM)的训练、微调和推理,亚马吕梁市某某软件科技有限公司用于支持最苛刻和计算密集型的科技可用生成式AI应用,如问答、实例代码生成、正式视频和图像生成、亚马语音识别等。科技可用
据悉,实例Amazon EC2 P5e实例提供8个英伟达H200 GPU,具有1128GB高带宽GPU内存,同时提供第三代AMD EPYC处理器,2TB系统内存和30TB本地NVMe存储。Amazon EC2 P5e实例还提供3,200 Gbps的聚合网络带宽并支持GPUDirect RDMA,从而能够绕过CPU进行节点间通信,实现更低的延迟和高效的横向扩展性能。
Amazon EC2 P5e实例现已可通过Amazon EC2 Capacity Block for ML工具访问并在美国东部(俄亥俄州)区域正式可用。
此外,亚马逊云科技还宣布,将推出Amazon EC2 P5en实例,通过将英伟达H200 GPU与定制的第四代英特尔Xeon可扩展处理器相结合支持PCle Gen5,将提供高达四倍的CPU和GPU之间的带宽,降低网络延迟,进一步提高工作负载性能。(咸咸)
延伸阅读(责任编辑:休闲)
-
来源:环球时报【环球时报驻俄罗斯特派记者 肖新新 环球时报特约记者 柳玉鹏】俄罗斯国防部10日发布消息称,9日晚至10日凌晨,俄防空系统在多地击落144架乌克兰无人机,其中在莫斯科州上空击落20架,同 ...[详细]
-
最“地狱模式”的10所美国大学:“爸妈,我都学到没头发了....”
说起来不同大学的GPA满分真不代表一种难度,能在那些“最难拿高GPA的美国大学”里得GPA 4.0的人,实在是过于大佬。而有些与GPA 4.0失之交臂的人,也并非不是大佬,可能只是选错了学校,误入了地 ...[详细] -
【编者按】2024年,中国体育即将直面巴黎奥运会。4月17日,巴黎奥运会进入倒计时100天的节点。在周围强敌环伺的背景下,中国各项运动该如何突围?我们有哪些自己的优势,我们近来的大赛战绩如何,对手实力 ...[详细]
-
多地专家学者山西晋城热议“AI赋能肿瘤治疗”2024-05-26 15:39:38 来源:中国新闻网 作者: ...[详细]
-
6名游客带娃从河北进山到北京十渡游玩途中迷路 北京消防连夜上山搜救
6名游客带娃出游,准备从河北涞水县徒步进山游玩,计划傍晚下山抵达北京十渡一家民宿,民宿老板等到晚上也不见人来,联系后才得知几人在山中迷路,于是赶快报警。9月18日,北京青年报记者从北京房山消防救援支队 ...[详细] -
@TuTouSuo™️*小红书账号:秃头研究所新传考研/秃头研究所Monsters*如果你觉得自己读论文太过于盲目,不知道从哪里开始;如果你也想要通过碎片化的时间来补充和拓展知识储备;如果你想要一份直 ...[详细]
-
@TuTouSuo™️*小红书账号:秃头研究所新传考研/秃头研究所Monsters*专栏中主要更新科普性的新传学科词汇。与常规的「名词解释考题」不同,这些名词并不一定会直接出现在试卷中,但能够成为面对 ...[详细]
-
本文专家:邹多武教授,上海交通大学医学院附属瑞金医院消化科主任、消化内镜中心主任我们常说“病从口入”,而吃进去的食物最先接触到的就是胃肠道。胃肠道不仅参与食物的消化与营养吸收,还直接影响着人的免疫功能 ...[详细]
-
人工智能的“盛宴” 创新合作的平台——第三届全球数字贸易博览会前瞻
新华社北京9月18日电 题:人工智能的“盛宴” 创新合作的平台——第三届全球数字贸易博览会前瞻 新华社记者谢希瑶 9月25日至29日,第三届全球数字贸易博览会将在浙江杭州举办。国务院新闻办公室 ...[详细] -
5月26日,“以城市更新为牵引,聚焦发展新质生产力”学术论坛暨第四届Pro+Award普罗奖颁奖典礼在上海外滩万达瑞华3楼宴会厅成功举办。本次活动由《建筑实践》、上海市建筑学会地产建筑师分会作学术指导 ...[详细]